盲目行動的問題
在解決複雜的邏輯問題或檢索多項資訊時,若強迫 AI 立即決定要採取的行動,可能會導致災難性的錯誤。
想想人類是如何拼拼圖的:
- 他們不會隨手抓一塊拼圖就硬塞進拼圖板。
- 他們會在心中或口中規劃出策略: 「首先,我需要找出邊緣的平直拼圖來拼出外框,然後再看看這塊藍色拼圖能不能放進去。」
同樣地,如果我們要求 AI 只 輸出一個行動——跳過推理階段——那就是「盲目行動」。由於它尚未規劃出回答查詢所需的先決條件,因此往往會胡亂猜測、產生幻覺,甚至完全選錯工具。
把思考說出來
語言模型是逐個詞元(token)建構邏輯的。藉由強迫 AI「把思考說出來」(生成分析問題的文字) 在 它選擇行動之前,我們便為它提供了必要的工作空間,以得出正確的邏輯結論。
